Falta de mujeres en ciencias de la computación incrementa riesgo de sesgo en algoritmos

En el penúltimo episodio de IA LAB, un podcast de DF que analiza las oportunidades que abre la nueva era de la Inteligencia Artificial (IA) en el país, Bábara Silva, fundadora y CEO de Her Global Impact, profundizó en las brechas de género y sesgos que tiene el desarrollo de esta tecnología.

- Usted comentó que la IA puede incrementar las desigualdades de género. ¿Por qué y cómo llega a esta conclusión?

- Es importante tomar conciencia que hoy estamos viviendo en una era de aceleración que no había tenido precedente en la historia de la humanidad y de hecho, Hod Lipson, director de Creative Machines de Columbia, plantea que este año se va a duplicar la cantidad de data que se ha producido históricamente. Con eso quiero decir que los sesgos son discriminaciones, percepciones, formas en que tendemos a clasificar a personas por la edad, género, idioma, raza, color y esa información es una data que es histórica y por lo tanto los algoritmos aprenden a través de machine learning de esta data histórica.

Entonces, por ejemplo, si históricamente ha existido una brecha salarial de entre un 20% y un 30% para las mujeres en cargos similares a un hombre, lo que va a hacer el algoritmo es aprender de esa data que hoy está en los sistemas y, de alguna u otra manera, va a tender a generar conclusiones similares en distintos software o plataformas que se estén desarrollando.

“Es importante que más mujeres, a través de la creación de incentivos de estudio, entren a estudiar ciencias de la computación o IA (…) solo un un quinto de las personas en IA hoy son mujeres”.

- ¿El entrenamiento de IA con datos sesgados es algo recurrente en el mundo?

- Sí, es extremadamente común. La buena noticia es que efectivamente las empresas están tomando medidas, como por ejemplo la realización de auditorías de algoritmos que permiten de alguna manera ir disminuyendo las tendencias hacia los sesgos.

- ¿Y cómo se puede enfrentar esos sesgos? Mencionó lo que están haciendo algunas empresas…

- Hay distintas formas o caminos que se están tomando. Por ejemplo, el año pasado el Banco Interamericano de Desarrollo desarrolló una tremenda iniciativa para poder identificar plataformas que utilizan IA que precisamente tengan como objetivo neutralizar estos sesgos de género.

Una de ellas es Theodora, fundada por la chilena María José Martabit (…), cuyo objetivo es ser un buscador de sesgos, es decir, incorporas un algoritmo, un sitio web o una traducción e inmediatamente te va a ir detectando qué tipos de algoritmos están generándose.

Esta es una solución inédita. Hasta a la fecha no existen plataformas con ese nivel de precisión como el que está desarrollando una chilena acá.

También es importante crear la conciencia y que más mujeres, a través de la creación de incentivos de estudio, entren a estudiar ciencias de la computación o inteligencia artificial (…) solo  un quinto de las personas que estudian inteligencia artificial hoy son mujeres.

- Las multinacionales de desarrollo de software son las principales responsables de estos sesgos. ¿Están tomando las medidas necesarias? ¿O es necesario legislar para acelerar este cambio?

- Siempre doy este ejemplo: cuando un artista crea una obra de arte tiene toda la carretera disponible para desarrollarla y luego llegan los críticos. Eso es lo que pasa con el mercado y lo que está pasando con la IA. Plataformas tan potentes como NotCo, Uber, Cornershop que han utilizado el poder de la IA para crear soluciones que mejoran la calidad de vida de las personas.

Sin embargo, también hay plataformas que la están usando para el uso contrario y es por eso que es necesario regularlo (…) Tienen que ser marcos regulatorios flexibles que permitan democratizar el acceso a los beneficios, como a la telemedicina, educación online o acceso al consumo.

- ¿Los sesgos se están replicando en el entrenamiento y la programación de los sistemas de IA generativa?

- Absolutamente. Por eso es que el llamado a la acción es hoy y de hecho, los grandes líderes de la industria tecnológica, como Elon Musk, hicieron un llamado a los creadores de regulaciones a que se junten en esta conversación y se anticipen a los efectos que pueda tener este avance acelerado de la IA.

- ¿Qué pueden hacer las universidades y Estados para mejorar los indicadores de participación de mujeres en programación y desarrollo de software?

- Naciones Unidas recientemente desarrolló un concepto que busca eliminar todas las barreras para que las mujeres accedan al mundo digital. Por una parte promueven que se generen programas de educación donde se estimule a las niñas a estudiar carreras de ciencia, tecnología, ingeniería y matemática.

Hoy en Chile uno ve que ya se están haciendo llamados específicos para atraer a mujeres a las ciencias de la computación también.

¿Qué más se puede hacer? Creo que hay que publicitarlo más (…) Sería maravilloso que el Estado hiciera una campaña masiva donde promoviera que más niñas se acerquen al mundo de la programación, de la ciencia y la tecnología.